Изпълнителният директор на AI Дарио Амодей относно червените линии, които Anthropic не би прекрачил

„ Става въпрос за правилото да отстояваш това, което е вярно “, сподели Дарио Амодей, основен изпълнителен шеф на компанията за изкуствен интелект Anthropic, който се оказа в центъра на нов тип огнена стихия. Това, което съгласно него не е наред, е за какво компанията за изкуствен интелект, на която той е съосновател, е неразрешена от федералното държавно управление.

„ Чувствам се доста наказателно и несвоевременно, като се има поради сумата, която направихме за националната сигурност на Съединени американски щати “, сподели той.

Anthropic сътвори Claude, чатбот за изкуствен интелект, който може да употребявате на работа или в учебно заведение. От предишното лято неговата държавна версия е надълбоко вградена във военното разузнаване и секретните интервенции в Пентагона. Миналата седмица, в навечерието на офанзивата против Иран, Министерството на защитата изиска Anthropic да съобщи своя AI без ограничавания за законна военна приложимост. Компанията отхвърли.

„ Имаме тези две червени линии “, сподели Амодей. „ Имаме ги от Ден първи. Все още се застъпваме за тези червени линии. Няма да продължим по тези червени линии. “

Тези червени линии? Не позволявайки на AI на Anthropic да прави всеобщо наблюдаване на американци и забранявайки на неговия AI да зарежда изцяло самостоятелни оръжия без каквото и да е човешко присъединяване.

Amodei сподели: „ Това не демонстрира преценката, която човешки боец би посочил – другарски огън или пукотевица по граждански, или просто нещо неверно. Ние не желаеме да продаваме нещо, което не считаме за надеждно, и не го вършим желаеме да продадем нещо, което може да убие нашите лични хора или което може да убие почтени хора. “

Въпросът е кой би трябвало да управлява най-напредналата технология, създавана в миналото: частна софтуерна компания или федералното държавно управление?

Попитан дали има вяра, че Anthropic знае по-добре от Пентагона, Амодей отговори: „ Едно от нещата за свободния пазар и свободното предприемачество е, че другите хора могат да дават разнообразни артикули съгласно разнообразни правила Способен е на избрани неща. Способен е да прави избрани неща надеждно. И мисля, че можем да преценим какво могат да създадат надеждно и какво не могат да създадат надеждно. " контракти. Министърът на защитата Пийт Хегсет назова Anthropic „ риск за националната сигурност по веригата на доставки “ – първи за американска компания.

Попитан за това, че президентът назовава Anthropic „ събудена лява компания “, Амодей сподели: „ Не мога да приказвам за това какво вършат другите страни и какво вършат. … Но ние, мисля, се опитахме да бъдем доста неутрални. Така че тази концепция, че по някакъв метод сме били партизан, или че не сме били обективни? Бяхме усърдно обективни. "

Действията на администрацията на Тръмп във връзка с Anthropic бяха наречени от критиците корист с власт. Попитан дали е склонен, Амодей отговори: „ Отново бих се върнал към концепцията, че това е невиждано. “

Но това корист с власт ли е? „ Това в никакъв случай не се е случвало до момента “, сподели той. „ Това установяване в никакъв случай не се е случвало преди с американска компания. И мисля, че беше доста ясно изразено в някои от техните изказвания, на част от техния език, че това е възмездие и наказване. Не знам по какъв начин иначе да го нарека. Отмъщение и наказване. “

Докато Amodei и Anthropic са изправени пред държавна възбрана, неговият главен противник, Сам Алтман, от OpenAI (производител на ChatGPT), подписа лична договорка с Пентагона за Петък.

Amodei споделя, че Anthropic възнамерява да предприеме правни дейности. „ Всичко, което видяхме “, сподели той, „ са туитове от президента и туитове от секретар Хегсет. “ И, споделя той, Anthropic остава на масата за договаряния, надявайки се да беседват.

Попитан какво може да каже на президента Тръмп, Амодей сподели: „ Ние сме патриотични американци. Всичко, което направихме, беше в името на тази страна, в името на поддръжката за националната сигурност на Съединени американски щати. Вярваме в успеха над нашите автократични съперници. Вярваме в отбраната на Америка.

„ Червените линии, които имаме Начертани, ние нарисувахме, тъй като имаме вяра, че прекосяването на тези червени линии опонира на американските полезности ", сподели той. " Несъгласието с държавното управление е най-американското нещо на света. И ние сме патриоти. Във всичко, което направихме тук, ние отстоявахме полезностите на тази страна. "

     
За повече информация:

     
История, продуцирана от Дейвид Ротман. Редактор: Джордж Поздерец.